Khi KGB được kế thừa bởi cơ quan an ninh của Liên bang Nga (FSB), Litvinenko được bổ nhiệm đứng đầu đội điều tra các hành vi tham nhũng trong nội bộ. Trong thời gian làm việc tại FSB, ông còn làm việc bán thời gian cho nhà toán học và là doanh nhân giàu có Boris Berezovsky. Vào năm 1997, Litvinenko bất ngờ nhận được lệnh từ FSB yêu cầu ám sát Berezovsky và những người thân cận của nhân vật này. Thay vì tuân thủ lệnh của FSB, Litvinenko gặp trực tiếp người lãnh đạo cao nhất của FSB, chính là Vladimir Putin, người sau này lên làm tổng thống Nga. Litvinenko đã tố cáo với Putin về tình trạng tham nhũng nghiêm trọng đang xảy ra trong nội bộ FSB. Nhưng, ông Putin đã làm ngơ tất cả các cáo buộc của Litvinenko.

Không hài lòng với cách hành xử của Vladimir Putin, Litvinenko tổ chức họp báo cùng với một vài người bịt mặt cùng tố cáo tham nhũng trong nội bộ FSB. Thêm vào đó, nhóm của Litvinenko đã công bố các lệnh ám sát bí mật của FSB. Hành động này của Litvinenko đã làm Putin nổi giận. Ngay sau cuộc họp báo, Litvinenko bị Putin đuổi việc và bị bắt ngay sau đó. Nhưng Litvinenko được thả sau khi ngồi tù 9 tháng tại Moscow.